(网经社讯)10月13日消息,据极目新闻报道,近日,社交平台有账号发布AI生成视频,冒充刘欢家人兜售“黄精五黑粉”,引发网友质疑。相关店铺回应“我们也管不了”,平台回应“需由权利人或其家人举报”。

据悉,上述视频获得数万网友点赞、上万次转发。视频播放页面有小字标注“内容由AI生成”。尽管有许多人都看出了问题,但依然有人相信并且下单。
借着逝者的名号假冒其家属,这哪是“致敬”,就是赤裸裸的欺诈。刘欢逝世,全民悼念,无良之人专挑其“妻子”“儿子”这类近亲,就是试图利用公众对逝者家属天然的共情。看见“刘欢妻子”出来发声,第一反应是心疼、支持,买点东西帮衬。熟悉AI及网络的人或许能一眼辨别真假,但对于不常接触网络的人,如老年人群体而言,朴素的善意极易受骗。
对逝者家属来说,亲人刚走,还要面对“被AI冒充”,无疑是巨大的伤害。此前,刘欢妻子卢璐就曾发声,呼吁大家不要相信网络流传的刘欢临终场景以及后事安排的谣言,而这种利用逝者变现的行径,远比谣言更可恶。
据网经社直播电商台(LIVE.100EC.CN)获悉,9月,最高法发布的《关于依法审理涉人工智能纠纷案件的意见》中,重点对“AI换脸拟声”“AI复活逝者”等利用生成式人工智能侵害人格权益等问题,进行了规范。


























.png)



